Наистина ли AI компаниите се интересуват от безопасността?

Тази публикация е версия на нашия бюлетин на нашите Swamp Notes. Абонатите на Premium могат да се записват тук, с цел да доставят бюлетина всеки понеделник и петък. Стандартните клиенти могат да надграждат до премиум тук или да изследват всички бюлетини на FT

Винаги съм бил заинтригуван от метода, по който Сам Алтман, ръководителят на Openai, приказва за това какво ще се случи, в случай че и когато изкуственият разсъдък настига или надминава човешкия разузнаване.

Той признава, че ще бъде мъчно да управлява, идват с всички типове безпроблемни резултати и той е допустимо да се управлява. И тогава той споделя, че компанията му се състезава, с цел да я построи допустимо най -бързо.

Взима ли съществено проблемите с сигурността или той просто се пробва да завоюва безвъзмезден пропуск, като ни майтапи да мислим, че в действителност е виновен жител, който гледа за нашите ползи?

Предполагам, че в този момент знаем. Администрацията на Тръмп току -що е отправила AI промишлеността за това, което би желала от политиката на Съединени американски щати в границите на новата му администрация. Отговорът: Време е Вашингтон да почисти пътя за бранша, с цел да може да се движи доста по -бързо, регулациите да бъдат проклети.

Ако търсите доказателства за това по какъв начин Силиконовата котловина се е изместила с политическите ветрове, ще ви е мъчно да намерите нещо друго като това. Те даже се съгласиха да подложат най -мощните си модели на външни проби, преди да ги разпрострат върху останалите от нас. Белият дом на Байдън преглежда това като първа стъпка, която в последна сметка може да докара до цялостна инспекция на държавното управление и лицензиране на Advanced AI.

Dream On. Доналд Тръмп откъсна изпълнителната заповед на Байдън по AI през първата си седмица обратно в служба. Тогава неговата администрация прикани мненията, които да му оказват помощ да оформя нова политика на AI - типичен случай на снимане първо, задайте въпроси по -късно.

В техните изказвания в Белия дом, компании като Openai, Meta и Гугъл са съвсем единомислещи: Съединени американски щати би трябвало да оказват помощ на своите AI компании да се движат по -бързо, в случай че се надяват да изпреварват Китай; Американските страни не би трябвало да обвързват софтуерните колоси с частични разпореждания (тъй като федералното държавно управление спи на колелото на софтуерното контролиране от години, това би изключило всевъзможни ограничения); Белият дом би трябвало да приключи несигурността поради авторските права и да заявява, че фирмите са в границите на правата си да образоват своите модели на всевъзможни данни, които са в общественото пространство.

Безопасност? Компаниите значително изтъркаха тази дума от своя речник. Това евентуално е рационално: всички щяха да чуят декларацията на вицепрезидента JD Vance, на неотдавнашна среща на върха на AI в Париж, че „ Бъдещето на AI няма да бъде извоювано, като се разпали за сигурност “.

Никога не съм се съмнявал, че надпреварата на AI е тъкмо това: съревнование. Много от участващите компании са ветерани от други софтуерни борби за спечелили. Те постоянно са имали опростени и самообслужващи се способи да преценяват дали това, което вършат, е в публичен интерес: в случай че хората кликнат върху нещо, тогава те би трябвало да желаят повече от него. Това е бързият цикъл за противоположна връзка, който ни даде логаритмите, които хранеха взрива на обществените медии. Какво да не харесате?

Но след всички доказателства за щета, породени от обществените медии, бихте си помислили, че фирмите биха желали да знаят по какъв начин тяхната ИИ е обвързаност на света, преди да се втурне да ни даде повече от него. Доказателствата единствено стартират да се затрудняват и - изненада, изненада - не е обнадеждаващо.

медийната лаборатория на MIT неотдавна учи хора, които употребяват AI чатботи и откриват, че по -голяма приложимост в тясно сравнение на „ по -висока самотност, зависимост… проблематична приложимост и по -ниска социализация “. Трябва ли да научим урока изначало, че технологията, която ни превзема, може да не ни прави положително? Изглежда, че го вършим.

Ако се чувствате изключително великодушни, допускам, че бихте могли да се опитате да извършите случая, че софтуерните компании единствено приспособяват своите светове, с цел да дадат на Тръмп това, което желае да чуе. Може би те към момента са отдадени на сигурността и просто резервират това безшумно към този момент. Но мисля, че би било належащо необикновена благотворителност на духа, с цел да се стигне до това умозаключение.

Кристина, като софтуерен сътрудник в Сан Франциско, вие се занимавате с тези AI компании. Смятате ли, че те са съществени за сигурността на AI или са хвърлили цялата тази част на борда в бързината, с цел да бъдат първи в изкуствения общ разсъдък (AGI)? Това въртящо ли е единствено отражение на новото въодушевление във Вашингтон и търсенето на Белия дом на Тръмп за прояви на американско владичество? Или виждаме софтуерните компании в този момент в техните същински цветове? 

Препоръчително четене

Можете да подадете това под „ Друго от тези неща, от които се страхувате, може да е резултат от офанзивата на Елон Мъск против държавните разноски “. Клер Джоунс на FT написа, че икономистите стартират да се тормозят от доверието в икономическите данни на Съединени американски щати. Вероятно в никакъв случай не сте мислили, че ще пропуснете Федералния съвещателен комитет по икономическа статистика. Но в този момент, когато го няма. . . 

Привържениците на Тръмп са подготвени за ерозия на стратегии като Medicaid, които може да са в настъпването, защото републиканците търсят по -задълбочени съкращения на държавните разноски? Гай Чазан отиде в Богалуза, Луизиана, с цел да чуе от гласоподавателите. Рефренът: „ Никога не се появи в акцията... не мисля, че хората го виждат. “

Ако мога да огъна малко разпоредбите и да включа видео в предложения лист за четене: В доста години съм писал за технологията (23, защото питате), че в никакъв случай не съм виждал компания да господства в значима нова технология, защото чипмайсторът Nvidia господства в AI. Но нищо не трае постоянно. Този видеоклип преглежда някои от най-големите си провокации.

cristina criddle дава отговор

Водещите разработчици на AI имат дълбоки корени в сигурността: Гугъл, прочут със своята мантра " Don't Be Go Bage " ; Мисията на Openai да подсигурява, че AI се възползва от човечеството; и някогашните чиновници на Openai основават антроп, с цел да се съсредоточат върху виновен AI.

Тези лаборатории към този момент организират строги вътрешни проби и разгласяват университетски документи и систематични доклади, излагащи възприетите опасности от всеки модел, класирайки ги за заплахите си. Няма съмнение, че тези процедури ще се трансформират, само че от законодателите и обществеността зависи да решат дали тези компании, които означават личната си домашна работа, са задоволително положителни.

плюс възходът на Deepseek повдигна вероятността първата компания да доближи AGI, да не работи в страна с демократични полезности и правила.

С Китай заплашва доминирането и новата администрация на Тръмп, която е непреклонна за попречване на „ пробуждане “ на АИ, е имало въртене от „ сигурност “, до по -горещ период: „ сигурност “. Собственият институт за сигурност на AI на Обединеното кралство ребрандира в Института за сигурност на AI през февруари. Правителствата и откривателите са фокусирани по какъв начин тези системи могат да бъдат употребявани от съперници в евентуалните войни, шпионаж или тероризъм.

Въпреки напъните на Европа, публичните и човешките последствия от тази технология наподобява са били деприоритизирани. Стартирането на AI постоянно предизвестява за разноските за съблюдаване и по какъв начин това може да затрудни нововъведенията, изключително в страните с най-строгите регулаторни режими. 

When I asked Mike Krieger, chief product officer at Anthropic, about the best approach to safety under the current government, he said the company tries to be as involved in as many conversations as possible.

“We are not in there to do politics, but we are in there to help shape policy in a way that we think will lead to good outcomes without stifling innovation; there is always that balance, ” he сподели.

Като съосновател на Instagram и някогашен основен софтуерен шеф, Кригер е прекомерно осведомен с това по какъв начин обществените медии могат да повлияят на демокрацията и благосъстоянието на неговите консуматори. Въпреки че са извлечени доста паралели сред рисковете от обществените медии и AI, ние към момента нямаме доста свястно контролиране или решения за първия. И по този начин, какъв брой вяра можем да имаме за последните?

може би, заканите, подбудени от изкуствения разсъдък, са надалеч по -значими и темпът на развиване е бърз. Когато Chatgpt започва, ние видяхме необятно угриженост на водачите в тази област, базирайки се на екзистенциални опасности и призовавайки за мораториум върху мощни AI системи.

Елон Мъск поддържа пауза в създаването и все пак месеци по-късно зарежда личния си започващ AI, XAI, разработвайки мощни модели, бързо набивайки Щатски долар 12bn. Отношението на придвижването на Силиконовата котловина е по-силно от всеки път, само че ли е узряло да го направи, без да нарушава нещата?

Вашата противоположна връзка

и в този момент дума от нашите блатни. . .

In response to “ : ”
“I wonder what the chances of success may be for an administration that has no funds likely to be available for shipbuilding subsides even if the president believed in them, and is more likely to threaten invasion of friendly countries (eg Canada, Panama and Denmark/Greenland) or hit them with prohibitively high tariffs (everyone) Вместо да търсят „ опция за по-конструктивна ангажираност “.

отзивите ви

Ще се радваме да чуем от вас. Можете да изпратите имейл на екипа, да се свържете с Ричард и Кристина. Можем да представяме фрагмент от вашия отговор в идващия бюлетин

предложени бюлетини за вас

търговски секрети -задължително четене на изменящото се лице на интернационалната търговия и глобализацията. Регистрирайте се тук

Unhedged - Робърт Армстронг дисектира най -важните пазарни трендове и разисква по какъв начин най -добрите мозъци на Уолстрийт реагират на тях. Регистрирайте се тук